[アップデート]Agents for Amazon Bedrockの料金モデルにプロビジョンドスループットが追加されました

たぬき( @tanuki_tzp )です。
Bedrockのアップデートが相次いでますね！

Agents for Amazon Bedrockの料金モデルにプロビジョンドスループットが追加されました。

Agents for Amazon Bedrock now supports Provisioned Throughput pricing model

アップデートの内容

今まで、Agents for Amazon Bedrockで選択できる料金形態はオンデマンド料金のみしか選択できませんでしたが、本アップデートによりプロビジョンドスループットも選択できるようになりました。

プロビジョンドスループットは、モデルユニット単位での契約となります。
モデルユニットは、各ベースモデルごとにスループットレベルとして指定された、1分あたりに処理される入力トークンまたは出力トークンの最大数を定義した単位です。
例えば、Aというモデルのスループットレベルを10とモデルユニットで定義していて、アプリケーションで100の入出力トークンが発生することが確定している場合、ユーザーは10モデルユニットをプロビジョンドスループットとして購入するかを検討します。

モデルユニットで指定されている各ベースモデルのスループットについてはアカウントマネージャーに問い合わせが必要となります。

---

また、契約のコミットメントをコミットメントなし、1ヶ月、6ヶ月から選択できます。
コミットメントを1ヶ月で選択した場合、1ヶ月間はプロビジョンドスループットの契約を解除することができませんが、購入したモデルユニット数のスループットまでは保証されます。

料金について、コミットメントの契約期間が長いほど、時間単位の割引が大きくなります。
例えば、東京リージョンでAnthropicモデルのClaude2.0/2.1をコミットメント6ヶ月契約したとすると、1ヶ月に比べて約44%引きになります（2024/05/12時点）。
料金： Amazon Bedrock の料金表

Anthropicモデル	1か月契約のモデルユニットあたりの時間料金	6か月契約のモデルユニットあたりの時間料金
Claude 2.0/2.1	86.00 USD	48.00 USD

参考： Amazon Bedrock のプロビジョニングされたスループット - Amazon Bedrock

Agents for Amazon Bedrockとは

Agents for Amazon Bedrockとは、ざっくり言うと「入力されたプロンプトに対して、Agentsが適切なツール・動作を選択し実行する」サービスです。
ツールはユーザーが準備しておく必要がありますが、プロンプトに対して一つの動作ではなく、複数の動作をAWSサービスを跨いで実行したい場合に使用します。

下記の入門ブログでは、「靴を購入したい顧客(入力)に対して、会話しながら3つのAPIの利用タイミング判断し、実行する」デモを行っています。

Agents for Amazon Bedrockの解説も詳しく書いてあるので、ざっくりではなくちゃんと知りたいよ！って方は入門ブログを読んでいただければと思います。

おわりに

生成AIの活用が活発になり、そろそろサービスの本運用を始めたいなというタイミングにぴったりのアップデートでした。
是非コスト削減のためにもプロビジョンドスループットの契約をご検討いただければと思います。